Năm 1925, Trương Vân Lĩnh từ Xiêm sang Quảng Châu (Trung Quốc), gặp gỡ đồng hương Lê Hồng Sơn và gia nhập tổ chức Tâm Tâm xã. Cùng khoảng thời gian này, Nguyễn Ái Quốc đã cải tổ Tâm Tâm xã, biến tổ chức này làm nòng cốt để xây dựng tổ chức Hội Việt Nam Cách mạng Thanh niên.[4] Tháng 2 năm 1925, Trương Vân Lĩnh được kết nạp vào nhóm bí mật của Hội, trở thành thành viên Ban lãnh đạo Tổng bộ Hội Việt Nam Cách mạng Thanh niên và tham gia tổ chức các lớp huấn luyện chính trị đặc biệt.[1][2][4] Ông cùng Hồ Tùng Mậu, Lê Hồng Sơn, Lê Hồng Phong, Lê Duy Điếm,... cộng sự với Nguyễn Ái Quốc trong việc gây dựng tờ báo Thanh niên.[6][7]

Năm 1926, Trương Vân Lĩnh cùng một số hội viên được Nguyễn Ái Quốc đề nghị gia nhập Đảng Cộng sản Trung Quốc. Trong thời gian này, ông lần lượt tham gia lớp học cấp tốc "nông dân vận động" ở Quảng Châu, lớp quân sự cấp tốc ở Quế Lâm do Đảng Cộng sản Trung Quốc tổ chức. Sau đó, ông Đảng Cộng sản Trung Quốc được cử vào Trường Quân sự Hoàng Phố,[2][4] và tốt nghiệp cùng Lê Hồng Sơn, Nguyễn Sơn, Phùng Chí Kiên, tổng cộng hơn 30 người Việt Nam.[8] Sau khi tốt nghiệp, ông được làm chỉ huy một đơn vị quân đội Trung Quốc Quốc dân Đảng.[2]

Đầu tháng 5 năm 1927, Trương Vân Lĩnh bí mật báo cho Nguyễn Ái Quốc thông tin Quốc dân Đảng sắp đến bắt giữ các lãnh đạo Hội Việt Nam Cách mạng Thanh niên. Nguyễn Ái Quốc rời Quảng Châu đi Hồng Kông, nhưng Tổng bộ của Hội bị cảnh sát bao vây, nhiều hội viên bị bắt. Ông một mặt duy trì hoạt động của Tổng bộ, tiếp tục mở các lớp huấn luyện chính trị, quân sự cho thanh niên Việt Nam theo chương trình được Nguyễn Ái Quốc soạn thảo; một mặt viết thư kháng nghị lên chính phủ Trung Hoa Dân Quốc, khiến Tưởng Giới Thạch chấp nhận thư kháng nghị. Tháng 12 năm 1927, Trương Vân Lĩnh tham gia khởi nghĩa Quảng Châu, nhưng thoát khỏi cuộc đàn áp của quân Quốc dân Đảng. Sau khởi nghĩa, ông đấu tranh vận động chính quyền Quảng Châu trả tự do cho những người Việt Nam bị bắt trong khởi nghĩa.[4]

Cuối năm 1929, nhận được tin của Cao Hoài Nghĩa về việc Nguyễn Ái Quốc đang hoạt động ở Xiêm với tên Thầu Chín, Hồ Tùng Mậu cử Trương Vân Lĩnh, người thông thạo địa bàn Xiêm, đi đón Nguyễn Ái Quốc về Hồng Kông.[9] Nhưng khi Trương Vân Lĩnh đến Xiêm, thì Nguyễn Ái Quốc đã có mặt tại Hồng Kông (tháng 12 năm 1930) và tiến hành vận động, thành lập Đảng Cộng sản Việt Nam (tháng 2 năm 1931). Trương Vân Lĩnh trở về Quảng Châu và gia nhập Đảng Cộng sản Việt Nam, phụ trách dịch tài liệu, sách báo cũng như xây dựng các cơ sở Đảng, Công hội trong công nhân người Việt trên các tàu biển tuyến Hồng Kông–Quảng Châu–Xiêm–Sài Gòn.[4]